हाल ही में, OpenAI के Sora वीडियो जनरेशन सिस्टम के अनुसंधान प्रमुख Tim Brooks ने सोशल मीडिया पर घोषणा की कि वह Google DeepMind में शामिल होने जा रहे हैं, जहाँ वह वीडियो जनरेशन और विश्व सिम्युलेटर के क्षेत्र में कार्य जारी रखेंगे। Brooks ने कहा कि वह DeepMind जैसी प्रतिभाशाली टीम के साथ सहयोग करके बहुत उत्साहित हैं, और OpenAI में बिताए हुए शानदार दो वर्षों के लिए आभार प्रकट किया, विशेष रूप से Sora परियोजना पर प्राप्त उपलब्धियों के लिए।

Google DeepMind का नवीनतम अनुसंधान Gemma Scope भाषा मॉडल के ब्लैक बॉक्स के रहस्यों को उजागर करता है,Sparse Autoencoders (SAEs) के माध्यम से भाषा मॉडल की सक्रियताओं को विखंडित और पुनर्निर्मित करके, जिसका उद्देश्य पीछे के सार्थक लक्षणों को उजागर करना है। Gemma Scope JumpReLU SAEs का उपयोग करता है, सक्रियता को नियंत्रित करके, पुनर्निर्माण हानि को अनुकूलित करके और सक्रिय संभावित विशेषताओं की संख्या को नियमित करके, भाषा मॉडल की आंतरिक व्यवस्था को उजागर करने के लिए। अनुसंधान से पता चलता है कि अवशिष्ट धारा SAEs की प्रदर्शन आमतौर पर कम होती है, अनुक्रम की लंबाई SAE विशेषताओं पर प्रभाव डालती है।

Google DeepMind ने बड़े भाषा मॉडल का सफलतापूर्वक उपयोग करते हुए गणितीय अप्रतिम समस्याओं को हल किया। AI उपकरण FunSearch ने सत्यापनीय और मूल्यवान नई जानकारी का पता लगाया। FunSearch एक ऐसा उपकरण है जो गणित के क्षेत्र में समाधान खोजने में मदद करता है। बड़े भाषा मॉडल Codey के साथ मिलकर उपयोग करने पर, FunSearch ने बिन पैकिंग समस्या को भी सफलतापूर्वक हल किया।